Hồ Nam đi vào lịch sử thành văn của Trung Quốc từ khoảng năm 350 TCN, dưới thời nhà Chu, vùng đất nay là Hồ Nam trở thành một phần của nước Sở. Sau khi Tần Thủy Hoàng thống nhất Trung Quốc, đã thiết lập hai quận Kiềm Trung và Trường Sa tại Hồ Nam. Đến sau thời Hán Vũ Đế, Hồ Nam thuộc khu vực quản lý của thứ sử Kinh châu, được chia thành các quận Vũ Lăng, Quế Dương, Linh Lăng, Hành Dương và Trường Sa. Đến thời Tam Quốc, đất Hồ Nam được chia thành năm quận thuộc Kinh châu của nước Đông Ngô. Đến thời Tây Tấn, Hồ Nam được phân chia giữa Kinh châu và Quảng châu.

Đến thời Đông Tấn, Hồ Nam bị phân chia giữa ba châu Kinh, Hồ và Giang. Thời các Nam triều Tống, Tề và Lương, lãnh thổ Hồ Nam thuộc Tương châu, Dĩnh châu và một bộ phận nhỏ Kinh châu. Đến thời Nam triều Trần, Hồ Nam phân thuộc Kinh châu và Nguyên châu. Năm Khai Hoàng thứ 9 (589), Tùy Cao Tổ bình định Nam triều Trần, triều Tùy sau khi thống nhất Trung Quốc đã thiết lập tại Hồ Nam tám quận là Trường Sa, Vũ Lăng, Nguyên Lăng, Lễ Dương, Ba Lăng, Hành Sơn, Quế Dương và Linh Lăng. Đến năm Khai Nguyên thứ 2 (733) thời Đường Huyền Tông, triều Đường đã phân Hồ Nam thuộc Sơn Nam đông đạo, Giang Nam tây đạo và Kiềm Trung đạo. Đến năm Quảng Đức thứ 2 (764) thời Đường Đại Tông, triều đình đã thiết lập Hồ Nam quan sát sứ tại Hành Châu, từ đó trong hệ thống hành chính Trung Quốc bắt đầu xuất hiện tên gọi "Hồ Nam".

Đến thời Bắc Tống, Hồ Nam phân thuộc Kinh Hồ nam lộ và Kinh Hồ bắc lộ. Vào thời điểm này, khu vực hồ Động Đình được khai phá trên quy mô lớn, địa vị của Hồ Nam đối với toàn quốc tăng lên nhanh chóng. Thời Tống, toàn quốc có tứ đại thư viện thì Hồ Nam đã có đến 2. Những năm cuối thời Bắc Tống, nhân khẩu Hồ Nam đạt trên 5,7 triệu người. Thời Nhà Nguyên, Hồ Nam thuộc Hồ Quảng đẳng xứ hành trung thư tỉnh (湖广等处行中书省) với thủ phủ đặt ở Vũ Hán, triều đình Nguyên cũng lập Hồ Nam tuyên ủy ti tại Hành Châu (sau chuyển đến Đàm Châu). Đến thời Nhà Minh, Hồ Nam thuộc Hồ Quảng bố chánh sứ ti (湖广布政使司), thủ phủ đặt ở Vũ Hán. Đến năm Khang Hi thứ 3 (1664), triều đình phân Hồ Quảng thành Hồ Quảng tả, hữu bố chính sứ ti, trong đó hữu ti về sau đã thiết lập nên bốn đạo là Trường Bảo, Nhạc Thường Lễ, Hành Vĩnh Sâm Quế và Thần Nguyên Vĩnh Tĩnh và 9 phủ là Trường Sa, Bảo Khánh, Nhạc Châu, Thường Đức, Hành Châu, Thần Châu, Nguyên Châu, Vĩnh Châu, Vĩnh Thuận. Năm Ung Chính thứ 1 (1723), triều đình đổi Hồ Quảng Hữu bố chính sử ti thành Hồ Nam bố chánh sử ti, chuyển trị sở đến Trường Sa, Hồ Nam chính thức trở thành đơn vị hành chính cấp tỉnh của Trung Quốc.

Thời Trung Hoa Dân Quốc, Hồ Nam phế bỏ phủ, thính, châu, song vẫn giữ lại hai cấp đạo và huyện. Năm 1914, toàn tỉnh có bốn đạo là Tương Giang, Hành Dương, Thần Nguyên và Vũ Lăng. Đến năm 1922, cấp đạo bị triệt tiêu, chỉ còn tồn tại hai cấp là tỉnh và huyện. Tháng 12 năm 1937, toàn tỉnh được phân thánh 9 đốc sát khu hành chính, đến năm 1938 thì điều chỉnh thành 10 khu; đến tháng 4 năm 1940, toàn tỉnh Hồ Nam được điều chỉnh thành 10 giám đốc khu hành chính, mỗi giám đốc khu quản lý từ 6-10 huyện, và thành lập hai thành phố Trường Sa (1933) và Hành Dương (1943). Trước khi chính quyền Trung Hoa Dân Quốc rút ra Đài Loan, toàn Hồ Nam có 2 thành phố, 10 giám đốc khu hành chính, 77 huyện với thủ phủ là Trường Sa.

Sau khi thành lập Cộng hòa Nhân dân Trung Hoa năm 1949, trong cùng năm đã thiết lập hai thành phố Trường Sa và Hành Dương, lập 7 chuyên khu trực thuộc là Trường Sa, Hành Dương, Sâm huyện, Thường Đức, Ích Dương, Thiệu Dương và Vĩnh Châu. Sau nhiều lần điều chỉnh, đến cuối năm 2002, Hồ Nam được phân thành 14 đơn vị hành chính cấp địa khu (13 địa cấp thị và 1 châu tự trị, 122 đơn vị cấp huyện (34 khu, 16 huyện cấp thị, 65 huyện và 7 huyện tự trị).